盲目行動的問題
在解決複雜的邏輯問題或檢索多則資訊時,強迫 AI 立即決定採取某個行動,可能會導致嚴重的錯誤。
想想人類是如何拼湊一幅拼圖的:
- 他們不會隨手抓一片就硬塞進拼圖板上。
- 他們會在心中或口頭上規劃一套策略: 「首先,我需要找到用於邊框的平邊拼片,然後再看看這塊藍色拼片是否吻合。」
同樣地,如果我們指令 AI 只 輸出一個行動——跳過推理階段——那它就是在「盲目行事」。它常常會胡亂猜測、產生幻覺,或完全選錯工具,因為它尚未規劃出回答查詢所需的先決條件。
大聲思考
語言模型是逐個 token 建構邏輯的。透過強迫 AI「大聲思考」(生成分析問題的文字) 在 選擇行動之前,我們為它提供了必要的思考空間,使其能夠得出正確的邏輯結論。
